Skill Issue: Are Skills Language-Invariant in LLMs?
多语言LLM技能一致性:自博弈评估
🧭 多语言LLM技能一致性评估
A*STAR · Weizmann Institute of Science · MIT-IBM Watson AI Lab · University of Cambridge · EleutherAI
通过多语言自博弈文本游戏,量化同一LLM在不同语言接口下的技能差异
📌 工作参考价值(4 点)
- 多语言搜索/推荐中,模型技能会在语言接口变化时退化;上线前应做跨语言自博弈或类似对抗评测,而不只看知识基准分。
- 如果业务需要多语言 Agent 决策,可固定中间推理语言(如统一用英文 CoT)并在输入层做语言映射,可能恢复部分性能;论文表明改变内部推理语言可提升决策质量。
- 自博弈离线评测成本低、控制变量好,适合持续回归跨境/多语言版本的策略模型;可复用 TextArena 思路构建电商谈判、广告竞价等最小决策游戏。
- 注意语言特有失败模式(空间推理、条件决策、最优 move 选择),对推荐解释或多语言文案生成可针对性加入语言校准和校验。